使用 Profiler 优化 TensorFlow 性能  

您所在的位置:网站首页 hs2 内存 释放 优化 使用 Profiler 优化 TensorFlow 性能  

使用 Profiler 优化 TensorFlow 性能  

2023-07-02 08:49| 来源: 网络整理| 查看: 265

本指南将演示如何使用 Profiler 随附的工具跟踪 TensorFlow 模型的性能。您将学习如何了解您的模型在主机 (CPU)、设备 (GPU) 或主机与设备组合上的性能。

性能剖析有助于了解模型中各种 TensorFlow 运算的硬件资源消耗(时间和内存),并解决性能瓶颈,最终提高模型的执行速度。

本指南将指导您了解如何安装 Profiler、提供的各种工具、Profiler 收集性能数据的不同模式,以及一些用于优化模型性能的建议最佳做法。

如果要在 Cloud TPU 上剖析模型性能,请参阅 Cloud TPU 指南。

安装 Profiler 和 GPU 前提条件

使用 pip 为 TensorBoard 安装 Profiler 插件。请注意,Profiler 需要最新版本的 TensorFlow 和 TensorBoard (>=2.2)。

pip install -U tensorboard_plugin_profile

要在 GPU 上剖析,您必须:

满足 TensorFlow GPU 支持软件要求上列出的 NVIDIA® GPU 驱动程序和 CUDA® Toolkit 要求。

确保 NVIDIA® CUDA® Profiling Tools Interface (CUPTI) 位于以下路径下:

/sbin/ldconfig -N -v $(sed 's/:/ /g'


【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3